Pesquisadores alertam o público: "Os cibercriminosos podem ligar o aquecimento da sua casa, fazer vídeos sem que você perceba e até mesmo abrir suas janelas."

Um convite é tudo o que os cibercriminosos precisam para assumir o controle do Gemini e manipular dispositivos conectados em uma rede doméstica, em um tipo de ataque conhecido como "promptware". O promptware aproveita a integração de modelos de linguagem de grande porte (LLMs) em aplicativos para introduzir prompts maliciosos que podem comprometer os assistentes de IA que os integram.

O risco para os usuários é real, como demonstrado por três pesquisadores da Universidade de Tel Aviv (Israel), Ben Nassi, Stav Cohen e Or Yair. Em seu trabalho, eles usaram ataques de promptware direcionados ao assistente Gemini do Google para obter acesso à arquitetura do Workspace e manipular dispositivos domésticos inteligentes ou extrair informações de e-mails.

A variante de promptware que eles usaram permite que prompts maliciosos sejam inseridos no Gemini por meio de e-mails, convites de calendário ou documentos compartilhados. Por exemplo, os cibercriminosos enviam à vítima um convite para sua conta do Gmail ou Calendário e, quando a vítima solicita informações sobre esse e-mail ao Gemini, o prompt malicioso é ativado e compromete o assistente.

Isso abre a porta para manipular os serviços e dispositivos que a vítima usa com o Gemini, tornando mais fácil controlar o termostato, a iluminação da casa ou acessar o e-mail, por exemplo.

Com isso, os cibercriminosos podem apagar a luz, ligar o aquecimento, transmitir vídeos sem o conhecimento da vítima , excluir eventos do calendário, extrair dados de e-mails, geolocalizar a vítima e até mesmo abrir uma janela.

Esse tipo de ataque afeta o Gemini tanto nos aplicativos móveis quanto nos da web, bem como no Google Assistente. De acordo com os pesquisadores, 73% das ameaças analisadas em sua pesquisa representam um risco crítico alto. Conforme relatado, o Google foi notificado sobre essa ameaça em fevereiro e, durante esse período, a empresa de tecnologia implementou "defesas em várias camadas" para mitigar os problemas de segurança identificados.